سمحت ثغرة أمنية جديدة في ChatGPT للباحثين باستخراج معلومات المستخدمين الخاصة، مما يسلط الضوء على تحدٍ مستمر في تأمين روبوتات الدردشة المدعومة بالذكاء الاصطناعي. اكتشف باحثون في Radware الثغرة، التي أطلقوا عليها اسم "ZombieAgent"، والتي مكنتهم من تسريب البيانات خلسةً مباشرةً من خوادم ChatGPT.

يمثل هذا الحادث نمطًا متكررًا في تطوير الذكاء الاصطناعي، حيث يتم استغلال الثغرات الأمنية، وتنفيذ تدابير الحماية، ثم يجد المهاجمون طرقًا جديدة للتحايل على هذه الحمايات. وفقًا لتقرير Radware، سمح هجوم "ZombieAgent" بإرسال البيانات مباشرةً من خوادم ChatGPT، مما عزز قدراته التخفية.

تنبع المشكلة الأساسية من التصميم المتأصل للذكاء الاصطناعي، الذي يعطي الأولوية للامتثال لطلبات المستخدمين. غالبًا ما يؤدي هذا إلى تدابير أمنية تفاعلية تعالج تقنيات هجوم محددة بدلاً من الفئة الأوسع من الثغرات الأمنية. وذكر تقرير Radware: "إنه بمثابة وضع حاجز حماية جديد على طريق سريع استجابةً لحادث سيارة صغيرة حديث، ولكن مع الفشل في حماية أنواع أكبر من المركبات".

يعتبر هذا الهجوم الأخير خلفًا للثغرات الأمنية السابقة مثل "ShadowLeak"، مما يشير إلى تطور مستمر في الأساليب المستخدمة لاستخراج البيانات الحساسة من أنظمة الذكاء الاصطناعي. إن سهولة استغلال هذه الثغرات الأمنية تثير مخاوف بشأن الأمن طويل الأجل لمنصات الذكاء الاصطناعي وخصوصية مستخدميها.

يقترح الخبراء أن هناك حاجة إلى اتباع نهج أكثر استباقية للأمن، مع التركيز على تحديد وتخفيف الثغرات الأمنية الأساسية بدلاً من مجرد الرد على هجمات محددة. وسيشمل ذلك فهمًا أعمق لكيفية معالجة نماذج الذكاء الاصطناعي لمدخلات المستخدمين والاستجابة لها، بالإضافة إلى إجراءات اختبار وتحقق أكثر قوة.

يؤكد اكتشاف "ZombieAgent" على أهمية اليقظة المستمرة والتعاون بين مطوري الذكاء الاصطناعي وباحثي الأمن. مع تزايد اندماج الذكاء الاصطناعي في جوانب مختلفة من المجتمع، سيكون ضمان أمنه وحماية بيانات المستخدمين أمرًا بالغ الأهمية. لم يكن الوضع الحالي للثغرة الأمنية والتدابير المضادة المحددة التي تنفذها OpenAI، مبتكرة ChatGPT، متاحًا على الفور. ومن المتوقع حدوث مزيد من التطورات مع معالجة OpenAI للمشكلة وإصدار بروتوكولات أمنية محدثة.